Jacob Grimm sinh ra ở Hanau, tại Hesse-Kassel. Cha của ông, Philipp Grimm, là một luật sư, nhưng ông qua đời trong khi Jacob còn nhỏ, và mẹ ông bị bỏ lại bằng những phương tiện rất nhỏ. Em gái của mẹ anh là phụ nữ của phòng bệnh cho Landgravine của Hesse, và cô đã giúp đỡ để hỗ trợ và giáo dục nhiều gia đình của cô. Jacob được gửi tới trường công tại Kassel vào năm 1798 cùng với em trai Wilhelm (sinh ngày 24 tháng 2 năm 1786).

Năm 1802, ông theo học tại Đại học Marburg, nơi ông theo học luật, một ngành mà cha ông đã làm. Anh trai của anh ta đã gia nhập Marburg một năm sau, vừa mới hồi phục sau một cơn bệnh nặng và nặng, và cũng bắt đầu nghiên cứu luật.